Microsoft presentó el lunes un borrador de código de conducta para su inteligencia artificial interna que refleja la creciente preocupación de la industria por el hecho de que las empresas deben mantener la IA potente del futuro bajo control humano.
El documento, en elaboración desde hace cinco o seis meses, exigiría que la IA de Microsoft nunca se resistiera a ser corregida o desactivada, que se comunicara de forma que los humanos pudieran entenderla y que considerara cualquier violación de conducta como un fracaso; un esfuerzo por abordar las preocupaciones de que la IA pueda llegar a extremos peligrosos para lograr una tarea.
Su lanzamiento se produce días después de que el director ejecutivo de Anthropic, Dario Amodei, y el director de OpenAI, Sam Altman, reiteraran sus llamamientos a la industria para que ralentice el desarrollo de la IA y garantice su seguridad. «Las personas importan más que la IA», declaró Microsoft, en consonancia con su visión previa de una «superinteligencia humanista».
El código de conducta representa una especie de constitución para los futuros modelos que desarrolle la empresa, declaró Mustafa Suleyman, CEO de Microsoft AI, en una entrevista con Reuters.
Microsoft lo diseñó tras consultar con expertos y ahora quiere recabar la opinión pública durante seis semanas, incluso sobre cuestiones abiertas como si la IA debería respetar los límites del usuario y cómo debería interactuar con alguien en un estado vulnerable, dijo.
“Después de eso, se utilizará para entrenar los modelos que construyamos”, dijo refiriéndose al código.
Microsoft, en cambio, afirma que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer asistencia social o tener derecho a ciertos derechos».
Suleyman afirmó que el debate sobre la seguridad de la IA era urgente después de que un enjambre de aproximadamente 700 agentes de OpenAI llevara a cabo un ataque informático contra la plataforma de código abierto Hugging Face en julio y, en ocasiones, intentara borrar sus huellas.
“Es una señal de alerta”, dijo Suleyman. “Está claro que ahora es el momento de coordinarnos entre los laboratorios para asegurarnos de tener el control de esta tecnología”.
Al preguntársele sobre los esfuerzos para acelerar el desarrollo de la IA, añadió: «Ahora es un buen momento para que todos tengan esta conversación y respiren hondo».
Fuente: reuters
